home *** CD-ROM | disk | FTP | other *** search
/ NetNews Offline 2 / NetNews Offline Volume 2.iso / news / comp / lang / c++-part1 / 5091 < prev    next >
Encoding:
Internet Message Format  |  1996-08-06  |  5.4 KB
  1. Path: news.clark.net!not-for-mail
  2. From: gusty@clark.net (Harlan Messinger)
  3. Newsgroups: comp.lang.c++
  4. Subject: Re: Help with float/double data types
  5. Date: 31 Jan 1996 21:08:57 GMT
  6. Organization: Clark Internet Services, Inc., Ellicott City, MD USA
  7. Message-ID: <4eolp9$726@clarknet.clark.net>
  8. References: <96030.105940RWL380B@MAINE.MAINE.EDU>
  9. NNTP-Posting-Host: explorer.clark.net
  10. Mime-Version: 1.0
  11. Content-Type: TEXT/PLAIN; charset=ISO-8859-1
  12. Content-Transfer-Encoding: 8bit
  13. X-Newsreader: TIN [UNIX 1.3 950726BETA PL0]
  14.  
  15. RWL380B@MAINE.MAINE.EDU wrote:
  16. : C++ Experts,
  17. : 
  18. : 
  19. : If I declare X, Y, Z and Zstd as float:
  20. :     float X=0.0,Y=0.0,Z=0.0,Zstd=0.0;
  21. : Then the output looks correct but the digits after the decimal points
  22. : in X are incorrect (original first line X = -2082085.85000).  The
  23. : first value of Y is incorrect, but the next values are correct!
  24. : 
  25. : 
  26. :  X-Coordinate     Y-Coordinate       Z-Est     Z StdDev    n
  27. : -2082085.87500    -2127847.00000    23.12121    1.77931    8
  28. : -2082085.87500    -2047847.12500    23.13800    1.73910    8
  29. : -2082085.87500    -1967847.12500    23.15039    1.69751    8
  30. : -2082085.87500    -1887847.12500    23.15789    1.65532    8
  31. : -2082085.87500    -1807847.12500    23.15990    1.61336    8
  32. : -2082085.87500    -1727847.12500    32.19845    1.55000    8
  33. : -2082085.87500    -1647847.12500    38.46202    1.49013    8
  34. : -2082085.87500    -1567847.12500    32.17017    1.45502    8
  35. : -2082085.87500    -1487847.12500    39.51803    1.40543    8
  36. : -2082085.87500    -1407847.12500    47.27689    1.37395    8
  37. : 
  38. : 
  39. : If I declare X,Y,Z and Zstd to be double then the output is
  40. : correct.
  41. : 
  42. :  X-Coordinate     Y-Coordinate      Z-Est      Z StdDev    n
  43. : -2082085.85000    -2127847.12500    23.12121    1.77931    8
  44. : -2082085.85000    -2047847.12500    23.13800    1.73910    8
  45. : -2082085.85000    -1967847.12500    23.15039    1.69751    8
  46. : -2082085.85000    -1887847.12500    23.15789    1.65532    8
  47. : -2082085.85000    -1807847.12500    23.15990    1.61336    8
  48. : -2082085.85000    -1727847.12500    32.19845    1.55000    8
  49. : -2082085.85000    -1647847.12500    38.46202    1.49013    8
  50. : -2082085.85000    -1567847.12500    32.17017    1.45502    8
  51. : -2082085.85000    -1487847.12500    39.51803    1.40543    8
  52. : -2082085.85000    -1407847.12500    47.27689    1.37395    8
  53. : 
  54. : Coming from Fortran, this should not be happening.
  55.  
  56. Why not? The difference between real and double precision in Fortran is 
  57. about the same as between float and double in C++.
  58.  
  59.   Borland's
  60. : documentation suggests that negative floats and doubles don't
  61. : exist.  
  62.  
  63. You are misreading it somehow.
  64.  
  65. However, their web page has a technical document
  66. : describing how floating points are represented and indicate
  67. : that negative floats and doubles are OK.  I am puzzled
  68. : by the behavior I describe above.  And yes, I need access to
  69. : the X, Y and Z values as numbers for certain statistics I
  70. : need to include so I can't just read them as strings.
  71. : Any help is greatly Appreciated!
  72. : 
  73.  
  74. Floating point numbers are stored, at least on PCs, in binary scientific 
  75. notation. The sign of the number is stored in one bit. The absolute value 
  76. of the number is then expressed uniquely in the form s * 2^e (s times 2 
  77. to the e power), where s >= 0.5 but s < 1, and e is an integer that can 
  78. be positive, negative or zero. The values s (significand) and e (exponent) 
  79. are stored in some set of bits.
  80.  
  81. On a PC, a 32-bit float uses one bit for the sign, 8 bits for the 
  82. exponent and the remaining 23 bits for the significand. The significand 
  83. is expressed as a binary fractional expansion; the first digit is chopped 
  84. off (it is always 1, since s is at least 1/2 but less than 1, so to save 
  85. space and allow greater precision the 1 is assumed instead of being saved 
  86. explicitly); and the next 23 binary places are stored. The exponent e is 
  87. stored as a signed integer.
  88.  
  89. The number -2127847.12500 can be expressed in binary scientific notation 
  90. as (-).1[00000011101111110011100]1000... times 2 to the 22nd power. The bits 
  91. between brackets are the 23 bits that would be saved in a float. What 
  92. remains after the right bracket is the rounding error, which is 
  93. approximately 1 in the 25th position after the point--that is, 2 to the 
  94. negative 25th power times 2 to  the 22nd power = 2 to the negative 3rd 
  95. power = 1/8 = 0.125, exactly the amount by which your printed output was off.
  96.  
  97. The number -2047847.12500 in binary scientific notation is 
  98. (-).1[11110011111101100111001] EXACTLY. This value can be specified fully 
  99. in the 24 binary places provided (23 stored plus one imputed), so no 
  100. rounding error occurs.
  101.  
  102. I haven't checked your other numbers individually, but this gives you the 
  103. general idea.
  104.  
  105. How many digits of precision does one get from 24 binary places (bits)? 
  106. The rightmost bit in the significand represents 2^(-24), which is about 6 
  107. times 10^(-8). If all the bits in the signficand are 1s, then the 
  108. significand represents 1. Therefore, the precision of the signficand is 
  109. equal to 6 parts per 100,000,000, allowing about seven signficant figures 
  110. in decimal representation.
  111.  
  112. The 8-bit exponent can vary from -127 to 128, so the magnitude of floats 
  113. can range from 0.5 * 2^(-127) to 1.0 * 2^128. This is equivalent to a 
  114. range from 10^(-38) to 10^38 in decimal terms.
  115.  
  116. Doubles are stored in 64 bits on a PC: one bit for sign, 11 for exponent, 
  117. and 52 for significand. The 52 bits allow for about 15 signficant digits. 
  118. The 11 bits in the exponent allow for orders of magnitude from 10^(-308) 
  119. to 10^308.
  120.  
  121.  
  122.  
  123.  
  124.  
  125.  
  126.